iT邦幫忙

ai engineering相關文章
共有 22 則文章
鐵人賽 AI Engineering DAY 18

技術 Day 18:RAG(一)索引端 — 八成的失敗在提問之前就決定了

今天進入生成式 AI 職缺中出現頻率最高的主題:RAG(48.1%)。 因為它太重要,我用三天處理:今天講索引端(文件怎麼進去)、明天講檢索端(怎麼找出來)、後...

鐵人賽 AI Engineering DAY 3

技術 Day 03|功能從 1 個變成 12 個後:我開始怕「改 A 壞 B」

把 Notebook 的流程搬到 Web 後,功能越來越多。我開始不只看畫面能不能跑,而是回頭比對產出的結果:改了 A,為修改的 B 的輸出還一樣嗎? Da...

鐵人賽 AI Engineering DAY 2

技術 Day 02|Vibe Coding 為什麼在 DAP 的第一階段很好用?

Day 01 我提到,DAP 的第二代不是從 Agent 或複雜流程開始,而是先用 Vibe Coding 把 Notebook 的人工作業搬到 Web。今...

鐵人賽 AI Engineering DAY 17

技術 Day 17:LLM 應用骨架 — 從 LINE Bot 到會自己決定的系統

2020 年我初次參加鐵人賽寫的是《用 LINE 串起多媒體系統》(GitHub),那 30 天在做的事,本質上是:接收使用者訊息 → 判斷意圖 → 呼叫對應的...

鐵人賽 AI Engineering DAY 16

技術 Day 16:從 Prompt 到 Context Engineering — 輸入視窗是一份預算

今天進入主軸二:生成式 AI。前八天我們在解決關於 MLOps 的「模型會不會掛」,接下來八天解決「模型會不會智商下線」。 主軸一的讀者會發現,這邊的問題同樣需...

鐵人賽 AI Engineering DAY 15

技術 Day 15:AI 平臺與成本治理——損益平衡點與 GPU 利用率

前七天,我們一路處理模型如何可靠地上線、持續部署、監控,以及出問題時怎麼發現。今天換一個主管通常更有感的問題: 這套 AI 系統,到底花多少錢? 模型能活著還不...

鐵人賽 AI Engineering DAY 14

技術 Day 14:監控與漂移 — 模型無聲壞掉的那 14 天

Day 04 曾說過「不能省的三件事」:可重現、監控、評測。Day 08 提到「只能投資一項就選監控」。今天就講為什麼。 如果這 30 天你只讀一篇,建議這篇要...

鐵人賽 AI Engineering DAY 13

技術 Day 13:推論服務 — 延遲 vs 吞吐的取捨曲線

昨天服務跑起來了。今天回答:它跑得好不好? 面試時很容易被問到的題目,包含「你的服務延遲多少」、「怎麼提升吞吐」及「P99 為什麼重要」?這三題答得好,入職的機...

鐵人賽 AI Engineering DAY 12

技術 Day 12:容器與 Kubernetes — GPU 排程與那些會讓 Pod 重啟的坑

今天進入 MLOps 職缺中出現頻率最高的領域:AI/ML 平臺與基礎設施(58.5%)。 本日不包含 Kubernetes 的全部——那是一本書的量,而且新入...

鐵人賽 AI Engineering DAY 11

技術 Day 11:訓練管線與 CI/CD—品質門檻設定

資料有版本(Day 09)、實驗有紀錄(Day 10),今天加上最重要會擋人的門,把它們串成一條自動跑也安心的管線。 這是 Level 0 到 Level 1...

鐵人賽 AI Engineering DAY 10

技術 Day 10:實驗追蹤與模型註冊—MLflow 與 champion/challenger

昨天資料有了版本。今天處理另外兩根柱子:這次訓練用了什麼設定、跑出什麼結果、產出的模型在哪裡。 這是 Day 08 診斷表第 3、5 題的內容,也是導入成本最低...

鐵人賽 AI Engineering DAY 9

技術 Day 09:資料與特徵——DVC、資料驗證與訓練—服務偏斜

昨天的成熟度診斷中,其中「訓練前自動檢查資料」與「重現三個月前的訓練」應是最多團隊答「否」的兩題。今天就處理這兩題。 Day 06 說過可重現需要五根柱子,今天...

鐵人賽 AI Engineering DAY 8

技術 Day 08:MLOps 成熟度——你的團隊在 Level 幾?

2021 年那套成熟度模型,在 2026 年還適用嗎? 我的答案是:框架適用,內容要改寫。 本系列為 MLOps × GenAI Engineering 雙主軸...

鐵人賽 AI Engineering DAY 7

技術 Day 07:LLM 原理速成——token 經濟與成本的真相

今天只聚焦在 Token 怎麼計價、生成怎麼進行、模型怎麼選這三件事,會直接影響你系統設計與帳單,也可能導致容易做出錯誤架構決策的部分。 本篇不會重講 Tran...

鐵人賽 AI Engineering DAY 6

技術 Day 06:ML 生命週期與「筆記本到產品的鴻溝」

ML 專案跟一般軟體專案,到底哪裡不一樣?,在開發環境的建立之後,今天要處理 ML 系統成敗的認知問題。 今天要解決的問題 先講一個 ML 系統經典的統計現象:...

鐵人賽 AI Engineering DAY 5

技術 Day 05:工程基礎最小集合——環境、Git、容器、金鑰

「在我電腦上明明跑得起來啊。」 這句熟悉的對話日常,在 ML 系統會是場災難,因為 ML 多了兩個變數:資料與模型權重。第一部曲我們將 AI 職缺目前在市場...

鐵人賽 AI Engineering DAY 4

技術 Day 04:從職缺任務到學習地圖——您走哪條路?

站在哪裡往前走 三天下來我們確認了:市場要什麼(Day 02)、誰負責什麼(Day 03)。今天是第一部曲的收尾,也是我覺得最實用的一篇——把職缺梳理成您能照著...

鐵人賽 AI Engineering DAY 3

技術 Day 03:兩個職務的責任界面——誰該負責什麼

站在哪裡往前走 昨天我們確認了就業市場的徵才概況。今天要處理一個很多人心裡的疑問:這些事,不是資料科學家、DevOps、後端本來就在做的嗎?為什麼要多兩個職務?...

鐵人賽 AI Engineering DAY 2

技術 Day 02:用資料說話——4,343 筆職缺的任務訊號解剖

昨天提到,這一系列文章是從真實需求出發,透過整理新興 AI 職缺,我觀察到目前市場上的 AI 人才需求,已逐漸分化成兩類不同的職務方向。今天,就想進一步和大家分...

鐵人賽 AI Engineering DAY 1

技術 Day 01:五年後再談 AI 落地——為什麼是「雙主軸」?

2021 年,我在鐵人賽寫了《從 AI 落地談 MLOps》(GitHub)。那 30 天在回答一個問題:模型訓練好了,然後呢? 五年後,這個問題不但沒有過期,...

鐵人賽 Build on Google AI DAY 5

技術 Day 05 如果AI Demo 成功,不代表 AI 專案成功,因為AI Engineer 的價值,不只是會使用 AI AGNET

我有多年 IT 技術與跨域學習經驗,現在把 AI、Cloud、Infrastructure 串起來。 實做 AI Demo 的時候,我們通常會先問一個問題:「它...

技術 Agentic AI 開發實戰:我是如何設計 “Code + LLM” 混合架構,解決 AI品質不穩的問題?

TL;DR 這篇文章紀錄了解決軟體工程師常見的「中英夾雜」語音輸入痛點的過程。 專案架構從單純的 API 串接,演進為 「Code + Prompt + 條件式...